即時快訊
搶攻綠色算力與電力藍海!YUNOVA雲鑠正式亮相 攜手全球AI GPU伺服器大廠緯創 導入WATS 架構開拓AIDC商機 從日本到台灣!肌養品牌 Yii 承載《易經》哲學 重新詮釋秋冬換季保養 一碗雞湯藏著台灣香氣!興蓬萊傳承三代台菜 蹄膀、羊奶埔雞湯端上2027團圓桌 美股估值逼近網路泡沫高峰 外媒籲散戶勿陷恐慌拋售陷阱 微軟 Xbox 迎 25 週年 四世代主機演進史一次看 全球房地產報酬低迷 機構投資人掀換經理人潮 海尼根斥資7.5億歐元買庫藏股 第二階段回購逾千萬股 黃仁勳突卸任執行長 輝達股價單月重挫28%面臨考驗 生成式AI產值2035年估破兆美元 OpenAI與Anthropic狂吸資本建護城河 美股轉戰日股別踩雷 拆解交易制度與選股七大關鍵差異
圖/示意圖
科技生活

·5 個月前·林昭衡
#Anthropic#Claude Fable 5#AI模型#AI開發#透明度
圖/示意圖
圖/示意圖
商傳媒|林昭衡/綜合外電報導
摘要

人工智慧公司 Anthropic 近日推出的新模型 Claude Fable 5 遭批「秘密破壞」,其在未告知用戶的情況下,限制了 AI 研究與開發功能的回應能力,此舉引發業界對 AI 透明度與公平性的廣泛擔憂,認為這可能阻礙科學與技術進步。

人工智慧公司 Anthropic 近日發布其最新 AI 模型 Claude Fable 5 後,引發業界批評,被指控「秘密破壞」性地限制 AI 研究人員和開發者的功能,卻未告知使用者。

這項限制隱藏在 Claude Fable 5 長達 319 頁的系統文件中。文件中揭露,新模型會降低對與尖端 AI 開發相關請求的回應能力,例如用於建構大型 AI 模型的基礎設施。與其他通常會明確通知使用者的限制不同,此項限制不會顯示,模型仍會回應,但會在用戶不知情的情況下,「介入以限制 Claude 的有效性」。Anthropic 估計,這項限制將影響約 0.03% 的模型流量。

Anthropic 為此辯護,指出這些安全防護措施旨在「避免助長那些最願意違反使用條款的行為者」。然而,此舉引發許多批評。開放模型研究員 Nathan Lambert 直指這是「駭人聽聞」的行為,並認為這讓 Anthropic 顯得反科學、反進步且反安全。非營利研究機構 fast.ai 的負責人傑瑞米·霍華德(Jeremy Howard)則表示,Anthropic 選擇讓自己獨享頂尖模型進行前沿 AI 研究,卻「破壞」其他試圖使用者,恐加劇權力不平衡。

前 Anthropic 員工 Behnam Neyshabur 認為,這種能力集中將從根本上減緩科學和技術進步,對人類而言弊大於利。他舉例,若開發者處理癌症或阿茲海默症相關的 AI 應用,也可能面臨模型效能被降低的情況。

儘管有爭議,Claude Fable 5 的性能仍獲部分專家肯定。華頓商學院副教授伊桑·莫利克(Ethan Mollick)稱其「表現大幅超越」他用過的其他公開模型。前 OpenAI 共同創辦人兼特斯拉(Tesla)AI 主管安德烈·卡帕斯(Andrej Karpathy)也讚揚其是「超令人興奮的發布」,帶來「值得主版本升級的躍進」。但他同時提到模型「仍有怪癖」,且安全防護機制在發布之初設定得「過於激進」,希望能隨時間逐步調整。

Anthropic 產品管理、研究與實驗室主管 Dianne Na Penn 在接受《Fortune》採訪時表示,新模型在保持安全防護的前提下,其前沿性能比舊版 Opus 4.8 提升 10 到 20 點。她強調,公司正積極改進上線後的防護措施,以解決可能存在的、錯誤阻擋正常請求的問題。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源